Learning to Assign Prediction Tasks to Agents with Capacity Constraints
容量约束下为异构代理在线分配预测任务
🧭 Agent上下文任务分配与在线优化 ★ 深度解读
University of California, Irvine
提出在线上下文多臂赌博框架，在代理容量约束下动态学习其专长并路由任务，显著优于非上下文基线
📌 工作参考价值（4 点）
- 在电商客服/专家系统路由中，可以将不同技能的人工客服和AI客服视为异构代理，利用在线上下文学习（如用户意图、商品品类）分配任务，同时通过虚拟队列强制满足每个代理的工作量上限，防止过载。
- 在多LLM推荐生成场景中，各LLM对不同类目或用户群体的表现存在差异，可借鉴在线树模型估计上下文奖励，结合队列惩罚项（at = arg max(μ_a(x_t) - η Q_t,a)）实现轻量级路由，满足API调用容量限制。
- 工程实现上，贪婪策略在容量约束下已具有与汤普森采样相当的探索效果，可降低在线推理的复杂度；虚拟队列机制简单易集成，适合实时决策。
- 核心洞察：当代理的专长在上下文中互补时，联合策略可以超越单个最佳代理的边际性能，这是仅靠离线或非上下文路由无法捕获的，为“人机互补”或“多模型路由”提供了理论支撑。